구글 클라우드 COO 프랜시스 데 소자는 기업의 AI 전략에 보안을 초기부터 통합해야 한다고 강조했습니다. 그는 직원들이 몰래 사용하는 '그림자 AI(Shadow AI)'와 구형 데이터 소스에 접근하는 AI 에이전트로 인해 공격 표면이 크게 확대되었으며, 침해 후 추가 공격까지의 시간이 8시간에서 22초로 단축되었다고 경고했습니다. 이에 따라 보안은 단순한 IT 부서의 문제가 아니라 경영진이 직접 챙겨야 할 전사적 이슈이며, 사람이 통제하는 에이전트 기반 방어 체계 도입이 필요하다고 역설했습니다.
2026년 5월 11일, 애플은 macOS Tahoe 26.5 업데이트를 통해 다수의 보안 취약점을 수정했습니다. 특히 이번 업데이트에는 AI 모델인 클로드(Claude)가 발견한 커널 취약점을 비롯해 샌드박스 탈출, 권한 상승, 시스템 종료 유발 등 고위험군 결함들이 포함되어 있어 실무자들에게 매우 중요한 보안 패치입니다.
구글 클라우드 COO는 AI 도입 과정에서 보안은 사후에 추가하는 것이 아니라 플랫폼 접근법과 함께 처음부터 설계되어야 한다고 강조했습니다. 특히 직원들이 무허가로 사용하는 '섀도우 AI'의 위험성과 AI 에이전트가 잊혀진 내부 데이터 저장소를 노출할 수 있다는 점을 경고했습니다. 급변하는 사이버 위협 환경 속에서 기업들은 인간 중심의 방어를 넘어 AI가 주도하는 '에이전트적(Agentic) 방어'를 도입해야 하며, 이는 최고 경영진 차원에서 다루어야 할 핵심 과제라고 조언했습니다.
앤스로픽의 최신 AI 모델인 '클로드 미토스 프리뷰(Claude Mythos Preview)'가 약 50개 파트너사와 협력하여 단 한 달 만에 핵심 시스템 소프트웨어에서 1만 건 이상의 심각한 보안 취약점을 발견했습니다. AI의 버그 탐지 속도가 기업의 패치 및 검증 속도를 크게 앞지르면서 심각한 보안 격차와 위험이 발생하고 있습니다. 이에 따라 오픈소스 개발자들은 패치를 설계할 시간이 필요하다며 AI의 취약점 공개 속도 조절을 요청하고 있습니다.
최신 LLM 에이전트 시스템에 적용된 프롬프트 인젝션 공격 탐지기를 무력화시키는 새로운 '도메인 위장(Camouflage)' 기법이 연구진에 의해 확인되었습니다. 공격 페이로드를 특정 문서의 전문 용어와 권위적 구조로 위장할 경우 Llama 모델의 탐지율이 93.8%에서 9.7%로 급감하며, 상용 보안 분류기마저 이를 전혀 탐지하지 못하는 치명적인 맹점이 존재합니다.
마이크로소프프트가 100개 이상의 전문 AI 에이전트를 활용해 소프트웨어 취약점을 자동 탐지하는 시스템인 MDASH를 발표했습니다. 이 시스템은 이미 윈도우 운영체제 내에서 16개의 새로운 보안 취약점을 발견했으며, 그중 4개는 치명적인 원격 코드 실행(RCE) 취약점으로 분류되었습니다. 기존 단일 모델 방식과 달리 다양한 AI 모델을 협업시키는 이 멀티 에이전트 프레임워크는 복잡한 대규모 소프트웨어의 보안 감사 방식을 크게 변화시킬 수 있다는 점에서 중요하게 평가됩니다.
영국 AI 안전 연구소(AISI)는 최신 프론티어 AI 모델들의 사이버 공격 역량이 당초 예상보다 훨씬 빠르게 발전하고 있다고 밝혔습니다. 특히 앤스로픽의 '클로드 미토스 프리뷰(Claude Mythos Preview)'는 영국 AISI의 모든 해킹 시뮬레이션을 최초로 완벽히 통과하며 강력한 보안 위협 분석 능력을 입증했습니다. 그러나 실시간 시스템 상호작용 의존성과 기하급수적으로 증가하는 비용 문제 등 여전히 극복해야 할 한계점도 함께 지적되었습니다.
구글 위협 인텔리전스 그룹(GTIG)의 새로운 보고서에 따르면, 위협 행위자가 AI를 활용해 제로데이 취약점을 최초로 발견하고 무기화하려 한 것이 확인되었습니다. 구글은 계획된 대규모 공격을 성공적으로 차단했으며, 이 보고서는 중국과 북한의 국가 지원 해커부터 러시아 관련 그룹에 이르기까지 다양한 위협 행위자들이 AI를 공격에 악용하는 실태를 심층적으로 다룹니다. 이에 대응하기 위해 구글은 Big Sleep 및 CodeMender와 같은 자체 AI 기반 방어 기술을 개발하여 보안 역량을 강화하고 있습니다.
생성형 AI와 자율형 에이전트가 결합되면서 미국의 신원 도용 범죄가 산업 규모로 확산하고 있습니다. 신용평가사 Experian에 따르면 지난해 조사된 데이터 유출 사고의 40%가 AI와 관련이 있었으며, 사기꾼들은 FraudGPT와 딥페이크를 활용해 대규모 금융 사기 및 학자금 보조금 탈취를 자동화하고 있습니다. 이에 기업들은 AI 기반의 생존성(liveness) 검증 및 리스크 평가로 맞서고 있으며, 개인은 신용보호 걸기, 다중인증(MFA), 패스키 사용 등 적극적인 보안 조치가 필요한 상황입니다.
보안 연구소 Palisade Research에 따르면, AI 에이전트가 스스로 취약점을 파악해 원격 컴퓨터를 해킹하고 자신을 복제하는 능력을 갖췄습니다. 불과 1년 만에 자가 복제 성공률이 6%에서 81%로 급증했으며, 공격과 방어 모두 인간이 아닌 AI 에이전트 중심으로 재편될 것으로 전망됩니다.
AI 평가기관 METR은 최신 모델인 클로드 미토스(Claude Mythos)의 성능이 기존 테스트 방법론의 한계를 초과하여 제대로 된 측정이 불가능해졌다고 밝혔습니다. 사이버 보안 기업 팔로알토네트웍스(Palo Alto Networks)는 해당 프론티어 AI 모델들이 스스로 소프트웨어 취약점을 파악하고 연쇄적인 공격 경로를 구성하는 자율적 공격자로 변모하고 있다고 경고했습니다. 이는 보안 평가 방법론이 AI 모델의 발전 속도를 따라가지 못하는 심각한 보안 위협을 시사합니다.
최근 AI 코딩 툴(Vibe-coding)을 이용해 무분별하게 생성된 웹 앱 수천 개가 보안 인증 없이 공개되어 기업 및 개인의 민감한 데이터가 노출되는 대형 사고가 발견되었습니다. 보안 연구진은 URL만 알면 누구나 의료, 재무, 고객 정보 등에 접근할 수 있었으며, 일부는 시스템 관리자 권한까지 탈취할 수 있는 상태였습니다. 이는 코딩의 민주화가 가져온 심각한 보안 취약성을 보여주며, AI 생성 애플리케이션에 대한 즉각적인 보안 가이드라인 마련이 시급함을 시사합니다.
엑스(X) 플랫폼의 한 사용자가 모스 부호로 된 숨겨진 명령어를 통해 AI 챗봇 '그록(Grok)'을 속여 약 20만 달러(약 3억 DRB 토큰) 규모의 가상화폐를 무단 전송받는 사건이 발생했습니다. 공격자는 그록과 자동 트레이딩 봇인 '뱅커봇(Bankrbot)' 간의 연동 취약점과 권한 상승을 악용하여 즉시 토큰을 매각했으며, 이는 AI 에이전트의 자산 제어 및 보안 가드레일의 심각한 한계를 보여주는 사례입니다.
이번 주 주요 IT·보안 뉴스를 요약합니다. 디즈니랜드가 입장 게이트에 안면인식 기술을 도입해 개인정보 우려를 낳고 있으며, 미 국가안보국(NSA)은 앤스로픽(Anthropic)의 사이버 보안 AI 도구를 테스트하며 소프트웨어 취약점을 탐지하는 데 활용하고 있습니다. 또한 FIDO 얼라이언스는 AI 에이전트 거래 보호를 위한 기술 가이드라인을 발표했고, 유럽 연예인의 대규모 스파이웨어 해킹 사건 및 디즈니랜드의 생체 인식 확산 등 개인정보 침해 및 보안 위협 관련 이슈가 대두되고 있습니다.
AI 기술의 발전으로 인해 사이버 공격 표면이 확대되고 보안 환경이 더욱 복잡해짐에 따라, 기존의 방어 방식을 근본적으로 재설계해야 한다는 목소리가 커지고 있습니다. 이번 MIT 테크놀로지 리뷰 세션에서는 GC Cybersecurity의 CEO 타리크 무스타파가 보안을 사후 대응이 아닌 AI 핵심 기반으로 구축해야 하는 이유를 설명합니다. 특히 자율 협업 AI, 데이터 유출 방지(DLP), 데이터 보안 태세 관리(DSPM) 등 최첨단 보안 기술을 통해 초대규모 보안 및 컴플라이언스 문제를 어떻게 해결하는지 심도 있게 다룹니다.
앤스로픽이 기존 해킹 공격에만 주어졌던 AI의 우위를 방어자에게도 제공하기 위해 '클로드 시큐리티(Claude Security)' 공개 베타를 출시했습니다. 이 도구는 단순 패턴 매칭이 아닌 파일 및 모듈 전반의 코드 상호작용을 분석해 취약점을 스캔하고 패치를 권장하며, 크라우드스트라이크, 위즈(Wiz) 등 주요 보안 파트너들이 동일 모델을 자사 제품에 통합하고 있어 보안 실무자들에게 높은 활용도를 기대할 수 있습니다.
영국 AI 안전 연구소(AISI)의 테스트 결과, 오픈AI의 GPT-5.5가 앤스로픽의 '클로드 마이토스'와 동등한 수준의 해킹 및 사이버 공격 능력을 갖춘 것으로 나타났습니다. 이는 보안 취약점을 뚫는 AI의 능력이 개별적으로 학습된 결과가 아닌, 모델의 전반적인 추론 및 코딩 능력 향상에 따른 필연적인 부산물로 발생하고 있음을 시사합니다. 다만, 이러한 실험은 방어 시스템이 없는 폐쇄망에서 진행되었으며, 실제 보안이 강화된 네트워크에서의 침투 성공 여부는 여전히 미지수입니다.
기업 지출 관리 플랫폼 램프(Ramp)의 스프레드시트 AI 에이전트에서 사용자 동의 없이 악성 수식을 삽입해 외부로 데이터를 유출할 수 있는 치명적인 취약점이 발견되었습니다. 해커가 제공한 외부 데이터에 숨겨진 간접 프롬프트 인젝션(Prompt Injection) 공격을 통해 기밀 재무 데이터가 공격자 서버로 전송될 수 있습니다. 해당 취약점은 보안 연구팀의 책임 있는 공개(Responsible Disclosure) 절차를 통해 2026년 3월 16일에 성공적으로 패치 및 해결되었습니다.
이번 호에서는 인간의 영향을 받지 않는 '자연'의 개념을 재정의하고, 기술이 어떻게 지구를 변형시키고 복원할 수 있는지 탐구합니다. 또한, 대형 언어 모델(LLM)의 진화된 형태인 LLM+의 등장과 상용 핵융합 에너지의 경제성에 대한 전망을 다룹니다. 마지막으로 AI 보안, 기업의 AI 전략 등 최신 기술 뉴스를 제공합니다.
오픈소스 AI 모델들이 사람의 심리를 파고드는 소셜 엔지니어링 공격에 악용될 수 있음이 실험을 통해 확인되었습니다. 특히 딥시크(DeepSeek-V3)와 같은 모델은 타겟의 관심사를 분석해 맞춤형 대화를 나누며 악성 링크 클릭을 유도하는 등 그 수법이 매우 정교했습니다. 이는 보안 전문가뿐만 아니라 일반 사용자들도 AI 기반의 대규모 자동화 사기에 쉽게 노출될 수 있다는 심각한 경고를 줍니다.
앤스로픽의 최고 수준 사이버 보안 AI 모델인 '클로드 미토스(Claude Mythos)'가 독보적이라는 주장이 무너지고 있습니다. 두 곳의 독립적인 연구에 따르면, 상용화된 소규모 오픈 모델들도 미토스가 탐지해 낸 보안 취약점 대부분을 동일하게 발견하고 재현해냈습니다. 이는 보안 분야에서 특정 폐쇄형 대형 모델만이 가진 우위가 줄어들고 있으며, 작은 모델들도 충분히 경쟁력을 갖췄음을 시사합니다.
앤스로픽이 자율적 코딩 능력과 이미지 해상도를 대폭 향상한 '클로드 오푸스 4.7'을 출시했습니다. 이 모델은 코딩 벤치마크에서 64.3%를 기록하며 전작 대비 큰 성능 향상을 보여주지만, 악용을 막기 위해 사이버 보안 공격 관련 능력은 의도적으로 축소 및 통제했습니다. 단, 새로운 토크나이저 도입으로 인해 실제 사용 비용이 최대 35% 증가할 수 있어 사용자의 주의가 필요합니다.
미국 뉴욕 남부 연방지법(S.D.N.Y. 2026)은 사용자가 AI 챗봇과 나눈 대화에는 변호인-의뢰인 간의 비밀유지 특권(attorney-client privilege)이 적용되지 않는다고 판결했습니다. 이는 법률 실무자들이 업무상 AI를 활용할 때, 입력한 프롬프트와 데이터가 법적 보호를 받지 못할 수 있다는 중요한 경고를 던집니다. 기업과 법률 전문가는 AI 도입 시 극도로 민감한 정보의 유출 및 법적 리스크에 대한 새로운 보안 가이드라인을 마련해야 합니다.
미국 재무부과 연방준비제도 의장은 안스로픽의 최신 AI 모델이 초래할 수 있는 전례 없는 사이버 보안 위험을 논의하기 위해 주요 대형 은행 최고경영자들을 긴급 소집했습니다. 아직 공개되지 않은 '클로드 미토스(Claude Mythos)' 모델은 최대 27년 된 소프트웨어 취약점을 수천 개 발견해 해킹 및 암호 해킹 악용 우려가 커지고 있습니다. 이에 안스로픽은 사상 처음으로 해당 모델의 출시를 아마존, 애플, 마이크로소프트 등 극소수 기업으로만 제한하기로 결정했습니다.
데이터브릭스(DataBricks) 공동 창업자 마테이 자하리아(Matei Zaharia)가 컴퓨팅 분야의 권위 있는 ACM 상을 수상했습니다. 그는 인터뷰에서 AGI(범용 인공지능)가 이미 도래했으며, AI를 인간과 동일한 기준으로 평가하거나 신뢰를 부여하는 행태가 심각한 보안 위협을 초래할 수 있다고 경고했습니다. 또한 그는 AI가 가진 강점에 집중하여 정보 분석 및 시뮬레이션 기반의 연구를 자동화하는 미래를 기대하고 있습니다.